PolyU COMP5511
Концепции искусственного интеллекта
Моделирование последовательностей и Transformer
Цели обучения
- Сравнение архитектур: Различать архитектуры RNN, LSTM и Transformer.
- Механизм самовнимания: Объяснять статью «Attention Is All You Need» и механизмы самовнимания.
- Кодировщики и декодировщики: Понимать роль кодировщиков и декодировщиков в таких моделях, как BERT и GPT.